EchoRec: Multi-Item Prediction-Empowered Generative Recommendation via Cycle-Consistent Preference Alignment
EchoRec：基于循环一致偏好对齐的多Token预测生成式推荐
🧭 生成式推荐 · Multi-Token Prediction ★ 深度解读
National University of Singapore · Beijing University of Posts and Telecommunications · Tencent · Shandong University
用未来多步行为作顺序依赖的密集监督，并通过循环一致性对齐把整体偏好内化到解码表示，提升生成式推荐且在线零开销
📌 工作参考价值（4 点）
- 未来行为可作为辅助监督：在训练时挂轻量 MTP 分支预测 t+2、t+3 商品，并让每个分支条件在前一个分支表示/上一步商品上，而不是从同一隐状态并行解码；能避免多个 horizon 预测同质化，适合需要一次性生成多个候选、多创意、多坑位结果的广告/推荐场景。
- 训练时新增的辅助分支共享主模型输出头、token embedding 和 decoding graph，推理时全部丢弃，线上延迟与显存几乎不变。这适合电商/广告高 QPS 场景：用可接受的训练成本换在线零开销的指标提升。
- 若业务中需要对齐多个表示（如用户向量与多意图向量、跨模态特征、多任务共享表示），单向 alignment 可能被 projector 吸收差异，造成“虚假对齐”；加反向 projector 和 round-trip/cycle loss 可抑制这类问题，是一个可复用的训练 trick。
- 当用户行为序列较长且噪声较多时，把目标从单点 next-item 改为多 horizon 整体偏好，会提升对噪声交互的鲁棒性；论文在 20% 随机替换噪声下相对提升反而从 17.68% 增至 54.89%，对真实电商点击噪声有参考价值。